Intelligence artificielle ou bêtise artificielle ?

Bernard Stiegler, philosophe, travaille sur les technologies numériques et les transformations qu’elles imposent à la société. Fondateur et président du groupe de réflexion Ars industrialis, il dirige également l’Institut de recherche et d’innovation (IRI), qui anime un projet d’économie contributive en Seine–Saint-Denis. D’après lui, « pour le moment, l’intelligence artificielle produit surtout de la bêtise artificielle » (1).

Mises au service de l’économie spéculative et du capitalisme de prédation, les nouvelles technologies pourraient être autant la solution que le problème, prévient le philosophe. Loin d’être technophobe, il appelle à une réponse politique qui place les machines au service de l’homme. Et non l’inverse.
Comment faire, donc, pour que l’IA ne crée pas de bêtise artificielle ? Bernard Stiegler brosse le tableau : « L’intelligence artificielle aujourd’hui, c’est d’abord le calcul intensif (deep learning, big data) appliqué au capitalisme de plateformes. Cette économie prédatrice ne renouvelle pas la possibilité de produire les richesses qu’elle capte ». Pour lui, les technologies computationnelles — l’intelligence artificielle au sens large — ne sont utiles qu’à une condition : qu’elles ne détruisent pas le tissu social mais qu’elles permettent au contraire de le reconstruire. Or aujourd’hui, « les solidarités sociales sont menacées, l’atomisation est immense, le malaise universel ». Bernard Stiegler recommande que ces technologies soient mises réellement au service de l’intelligence, et non de l’économie spéculative.

Comme en écho, Laurent Alexandre, le gourou de l’IA qui a l’art de faire polémique (2), explore une approche paradoxale. Il affirme : « Ce n’est pas la subtilité de l’intelligence artificielle qui change notre monde ; c’est sa bêtise crasse. Cela crée un malentendu : lorsque j’explique que l’IA est révolutionnaire, on en conclut que j’imagine l’émergence d’une IA dotée de conscience artificielle, à la Hollywood. C’est tout le contraire. Si l’IA était intelligente, elle changerait bien moins notre monde », affirme Laurent Alexandre (3). C’est par sa « bêtise » que l’IA est révolutionnaire.

Partant de ce postulat, il énumère plusieurs révolutions (4) :

1/ L’IA crée des monopoles difficiles à réguler : « Les IA de 2018 – dites connexionnistes – s’éduquent à partir de gigantesques bases de données, ce qui donne un immense pouvoir aux GAFA américains et BATX chinois qui en sont les détenteurs ».
2/ L’IA nous drogue : « Les géants du numérique utilisent l’IA pour rendre leurs applicatifs addictifs, ce qui leur permet de récupérer les montagnes de données nécessaires : cette boucle s’auto-entretient ». En somme, la manipulation addictive de notre cerveau accélère l’efficacité des IA : « Plus une IA est bête, plus elle a besoin de données, plus notre addiction lui est nécessaire ».
3/ L’IA permet la société de surveillance et s’en nourrit puisqu’elle lui apporte énormément de données. Raison pour laquelle, en matière de reconnaissance des visages, « les IA chinoises dépassent la Silicon Valley ».
4/ L’IA crée un monde ultracomplexe, mi-réel mi-virtuel, « qui exige des médiateurs humains extrêmement doués ». D’où une explosion des inégalités, car « les dompteurs des IA deviennent richissimes ».
5/ L’IA conduit au régime censitaire. Le monde de l’IA n’est lisible que par les humains ayant une forte intelligence conceptuelle : « Réguler le big data exige des experts multidisciplinaires, maniant à la fois l’informatique, le droit, les neurosciences… Les gens capables de gérer cette complexité politico-technologique deviennent la nouvelle aristocratie ». Un fort courant intellectuel anglo-saxon va jusqu’à proposer de contourner la démocratie, arguant que le monde de l’IA devient trop complexe pour l’opinion.
6/ Nous créons un monde « IA friendly » : comme l’IA ne comprend rien, n’a aucun bon sens ni esprit critique, « nous devons lui traduire le monde en le tagguant, ce qui accélère la fusion du réel et du digital. La route de 2040 n’est plus bâtie pour être lisible par nos yeux, mais par les IA des voitures autonomes ».
7/ La correction des biais de l’IA devient une part majeure de l’activité humaine. Des biais dont le nombre explose et que « seules d’autres IA en coordination avec des super-experts humains pourront dépister et corriger ».

En définitive, pour Laurent Alexandre, « les multiples conséquences de la bêtise des IA vont beaucoup nous occuper ». Sommes-nous prêts ?